หลินเซินเกิดในครอบครัวชนชั้นกลางในเมืองชางกัน (尚幹鄉), จังหวัดหมินโฮว (閩侯縣), มณฑลฝูเจี้ยน, หลินได้รับการศึกษาจากมิชชันนารีชาวอเมริกัน หลังจากนั้นเขาทำงานที่สำนักงานโทรเลขของเมืองไทเปบนเกาะไต้หวัน สมัยนั้นอยู่ภายใต้การปกครองของราชวงศ์ชิง ในปี ค.ศ. 1884 หลังเกิดสงครามจีน-ญี่ปุ่นครั้งที่หนึ่ง จีนได้พ่ายแพ้สงครามและเสียเกาะไต้หวันให้ญี่ปุ่น เขาเข้าร่วมในกิจกรรมกองโจรกู้ชาติต่อต้านผู้ยึดครองชาวญี่ปุ่นเมื่อทำไม่สำเร็จเขาจึงได้กลับไปที่จีนแผ่นดินใหญ่และทำงานในสำนักงานศุลกากรเซี่ยงไฮ้ ในปี ค.ศ. 1902 หลังจากนั้นเขาได้เดินทางไปสหรัฐอเมริกา โดยอาศัยอยู่ที่ฮาวายและซานฟรานซิสโก เขาได้มีโอกาสเข้าศึกษาด้านกฎหมายที่มหาวิทยาลัยนิวยอร์กและไปศึกษาต่อด้านปรัชญาการเมืองที่มหาวิทยาลัยเคมบริดจ์ในอังกฤษตามลำดับ

ในระหว่างที่เขาเดินทางไปมาระหว่างอังกฤษและอเมริกา เขาได้เข้าร่วมขบวนการถงเหมิงฮุ่ยซึ่งทำการต่อต้านการปกครองของราชวงศ์ชิงในปี ค.ศ. 1905 และเป็นผู้จัดและประสานงานในต่างประเทศสำหรับพรรคก๊กมินตั๋งช่วงที่มีการเคลื่อนไหวสู้รบกับฝ่ายราชวงศ์ในการปฏิวัติซินไฮ่ โดยเขาเป็นผู้รับผิดชอบในการปฏิวัติในเขตเจียงซี ต่อมาเมื่อราชวงศ์ชิงล่มสลายและมีการก่อตั้งสาธารณรัฐจีนขึ้น เขากลายเป็นประธานวุฒิสภาในสมัชชาแห่งชาติ